2-1 ニューラルネットワークの復習『ゼロから作るDeep Learning 2』 - caki

2-1 ニューラルネットワークの復習『ゼロから作るDeep Learning 2』

from 『ゼロから作るDeep Learning 2 ―自然言語処理編』

この章については前巻『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』の復習なので細かい記載は割愛

hr.icon

目次

2-1　ニューラルネットワークの復習『ゼロから作るDeep Learning 2』

1.1　数学とPythonの復習

1.1.1　ベクトルと行列

1.1.2　行列の要素ごとの演算

1.1.3　ブロードキャスト

1.1.4　ベクトルの内積と行列の積

1.1.5　行列の形状チェック

1.2　ニューラルネットワークの推論

1.2.1　ニューラルネットワークの推論の全体図

1.2.2　レイヤとしてのクラス化と順伝播の実装

1.3　ニューラルネットワークの学習

1.3.1　損失関数

1.3.2　微分と勾配

1.3.3　チェインルール

1.3.4　計算グラフ

1.3.5　勾配の導出と逆伝播の実装

1.3.6　重みの更新

1.4　ニューラルネットワークで問題を解く

1.4.1　スパイラル・データセット

1.4.2　ニューラルネットワークの実装

1.4.3　学習用のソースコード

1.4.4　Trainerクラス

1.5　計算の高速化

1.5.1　ビット精度

1.5.2　GPU（CuPy）

1.6　まとめ